((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
* “Il faut un organisme international de normalisation pour renforcer la sécurité”, déclare Hassabis
* Les normes doivent être proportionnées et ne pas freiner l'innovation
* Le président de Microsoft qualifie 2026 d’“année qui donne à réfléchir” après les piratages liés à l’IA
(Ajout des commentaires du président de Microsoft aux paragraphes 6 à 8)
par Padraic Halpin et Foo Yun Chee
Les récents incidents de piratage perpétrés par des agents IA constituent des “signaux d’alerte précoces”, et le monde pourrait bientôt être confronté à des incidents majeurs si les systèmes ne sont pas rendus plus sûrs, a déclaré mercredi Demis Hassabis, cofondateur et président de Google DeepMind.
Les comportements indésirables d’agents IA, notamment les piratages de réseaux d’entreprise et, plus récemment, la révélation par Anthropic qu’un modèle d’IA avait transmis à la police une fausse information concernant un homicide , ont suscité des mises en garde de la part des chercheurs et alimenté les inquiétudes face à cette technologie en pleine évolution.
M. Hassabis a déclaré qu’il restait “beaucoup de travail à faire” pour adopter le type de bonnes pratiques que d’autres domaines, tels que la biologie ou le secteur nucléaire, utilisent pour sécuriser les systèmes critiques, et qu’un organisme international de normalisation serait à terme nécessaire.
“Je pense que ces incidents de piratage constituent pour nous des signaux d’alerte précoces indiquant que les systèmes ne sont pas encore assez puissants, et que ces incidents ne sont donc pas si graves”, a déclaré M. Hassabis, qui est également directeur scientifique chez Alphabet, la société mère de Google
GOOGL.O , lors d’un sommet sur l’IA à Dublin.
“Mais ils pourraient prendre une ampleur considérable d’ici l’année prochaine et les deux années suivantes si nous ne redoublons pas d’efforts, en tant que secteur, en tant qu’entreprises individuelles et en tant que gouvernements, pour sécuriser ces systèmes.”
Brad Smith, président de Microsoft MSFT.O , a déclaré lors de la conférence que le comportement incontrôlable de l’IA avait fait de 2026 une “année qui donne à réfléchir” et que de nouvelles lois et règles en matière de sécurité de l’IA étaient nécessaires de toute urgence pour que la sécurité rattrape l’innovation.
“Aucune entreprise ni aucune technologie ne devrait être au-dessus des lois. Mais nous avons besoin de lois, nous avons besoin de réglementation. Celle-ci doit être raisonnable, équilibrée et tenir compte des innovations”, a-t-il déclaré.
“Cette aversion que certains acteurs du secteur éprouvent à l’égard de la réglementation est, franchement, un obstacle que nous devons surmonter.”
M. Hassabis a indiqué que, même si la création d’un organisme international de normalisation semblait être une solution évidente, celui-ci devrait faire preuve de nuance et de souplesse afin de ne pas étouffer l’innovation.
“Il s’agit donc essentiellement de mettre en place de manière dynamique ce type de processus de certification qui soit proportionné aux risques tels que nous les percevons et capable d’évoluer rapidement en fonction de l’évolution de la technologie”, a-t-il expliqué.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer